LM Studio
https://scrapbox.io/files/6639b9e58b660800241bab3b.png
https://lmstudio.ai/
LM Studio はLocal LLMをコンピュータ上で実行するための、無料で使えるデスクトップアプリ
ollamaのGUI版
プログラミングに馴染みの無い人や、言語モデルを試してみたい人は、手軽に設定することができるメリットがある。
OpenSourceではなく、商用利用できないところがデメリット
Janを使うのが良さそう
Discover, Downloadとある通り
ローカル環境で、言語モデルを探してダウンロードできる
言語モデルを利用して会話が出来たり、言語モデルサーバとしての機能も果たす。
何が嬉しいのか？
Local LLMを使うことのメリットは大きい。
しかし、Local LLMを動かす上での課題もある。
LM Studioを使えば、一般的な性能のPCでもコマンド不要で、気軽にLLMの動作確認ができる。
参考資料
https://note.com/masayuki_abe/n/nd65ed694eec0